Năm 583, Tùy Văn Đế bỏ quận lập châu. Việt Nam khi đó bao gồm những châu: Giao (vùng đồng bằng Bắc Bộ), Hưng châu (năm 598 đổi là Phong châu, tức là vùng Sơn Tây, Phú Thọ), Hoàng (năm 598 đổi là Ngọc châu, tức là bờ biển Bắc Bộ thuộc vịnh Hạ Long), Ái (tương đương Thanh Hóa), Đức (năm 598 đổi là Hoan châu, tương đương tỉnh Nghệ An), Lợi (năm 598 đổi là Trí châu, tương đương tỉnh Hà Tĩnh)[1].

Tuy nhiên trước năm 602, các châu này chỉ đặt trên danh nghĩa, vì nhà Tùy chưa chiếm được Vạn Xuân. Năm 602, Tùy Văn Đế sai Lưu Phương đánh bại Lý Phật Tử, Vạn Xuân mới nằm trong quyền cai trị của nhà Tùy. Nhà Tùy gộp hết các huyện của quận Giao Chỉ cũ làm 2 huyện Giao Chỉ và Long Biên, lệ thuộc vào Giao châu. Các huyện thuộc quận Giao chỉ thời thuộc Tấn ở phía bắc và phía nam sông Đuống trên tả ngạn sông Hồng ở phía hạ lưu Hà Nội, miền sông Cầu, sông Thương, sông Thái Bình. Thời thuộc Tùy, huyện Long Uyên là miền bắc sông Đuống, miền sông Cầu và sông Thương mà huyện Giao Chỉ ở phía nam sông Đuống và miền sông Thái Bình.

Sang thời Tùy Dạng Đế, năm 607 lại đổi châu thành quận. Các quận đều thuộc chính quyền trung ương. Dưới đây là chi tiết các quận thuộc Giao châu thời thuộc Tùy.

Quận Giao Chỉ

Quận Giao Chỉ: gồm có 9 huyện, 30.056 hộ[1][2]:

1. Tống Bình (đặt quận trị Giao Chỉ tại đây từ thời Tùy Dạng Đế): là quận Tống Bình thời thuộc Lưu Tống, tức là một phần huyện Long Biên đời thuộc Tấn được tách ra. Vị trí được xác định là phía nam sông Hồng và sông Đuống, gồm trung tâm Hà Nội và các huyện Hoài Đức, Thường Tín (Hà Nội), Thuận Thành (Bắc Ninh), Khoái Châu (Hưng Yên).
2. Long Biên: trừ đi phần đất đã tách ra để lập quận Tống Bình, phần còn lại của huyện Long Biên là huyện Tiên Du và thị xã Từ Sơn tỉnh Bắc Ninh
3. Chu Diên: được xác định vị trí ở tỉnh Hải Dương và huyện Tiên Lữ (Hưng Yên).
4. Long Bình (trước là Vũ Định, đời Tùy Văn Đế đổi tên mới): được xác định tương đương vùng đất miền sông Đáy thuộc Hà Nội (Hà Tây cũ), Hòa Bình và Hà Nam
5. Bình Đạo (trước là Quốc Xương, đời Tùy Văn Đế đổi tên mới): được xác định vị trí tại huyện Đông Anh (Hà Nội)
6. Giao Chỉ: được xác định ở phía tây Hà Nội, trên đường Sơn Tây
7. Gia Ninh: được xác định ở miền Việt Trì, Phú Thọ
8. Tân Xương: được xác định vị trí tương đương huyện Lập Thạch, Vĩnh Phúc.
9. An Nhân (trước là Lâm Tây, đời Tùy Văn Đế đổi tên mới): được xác định vị trí tương đương tỉnh Yên Bái

Quận Ninh Việt

Tương đương miền đông bắc Việt Nam hiện nay và một phần Khâm Châu thuộc Quảng Tây (Trung Quốc). Không rõ các huyện và số hộ khẩu[3].

Quận Cửu Chân

Quận Cửu Chân nhỏ hơn quận Cửu Chân thời Bắc thuộc lần 2, chủ yếu là các huyện thuộc Thanh Hóa hiện nay. Chi tiết gồm 7 huyện, 16.135 hộ[3][4]:

1. Cửu Chân: tách huyện Di Phong trước đây lập ra và đặt quận trị tại đây; được xác định vị trí ở huyện Đông Sơn và huyện Nông Cống, tỉnh Thanh Hóa
2. Di Phong: phần còn lại của huyện Di Phong cũ, được xác định vị trí là huyện Thọ Xuân, tỉnh Thanh Hóa.
3. Tư Phố: được xác định vị trí tương đương huyện Thiệu Hóa, tỉnh Thanh Hóa.
4. Long An: là huyện Kiến Sơ thời thuộc Ngô và Cao An đời thuộc Tấn; được xác định vị trí tương đương huyện Hoằng Hóa và Quảng Xương, tỉnh Thanh Hóa.
5. Quân An: được xác định vị trí tương đương miền huyện Thiệu Hóa và Yên Định tỉnh Thanh Hóa, ở giữa sông Chu và sông Mã
6. An Thuận: là huyện Thường Lạc đời thuộc Tấn; được xác định vị trí tương đương huyện Tĩnh Gia tỉnh Thanh Hóa
7. Nhật Nam: được xác định vị trí tương đương các huyện Hà Trung, Thạch Thành, Vĩnh Lộc, tỉnh Thanh Hóa.

Quận Nhật Nam

Quận Nhật Nam thời thuộc Lương và Tiền Lý là Đức châu, Tùy Văn Đế đổi thành Hoan châu, sau gộp cả Minh châu và Lợi châu (mà Lương Vũ Đế tách) vào trở lại với Hoan châu thành quận Nhật Nam. Như vậy quận Nhật Nam thời thuộc Tùy được dịch chuyển lên phía bắc, gồm một phần quận Cửu Chân và cả quận Cửu Đức thời Tam Quốc và Lưỡng Tấn, không bao gồm huyện nào thuộc quận Nhật Nam các thời trước.

Nhật Nam (mới) gồm có 8 huyện, 9.915 hộ[3][5]:

1. Cửu Đức (đặt quận trị ở đây): được xác định vị trí tương đương các huyện Hưng Nguyên, Nam Đàn tỉnh Nghệ An
2. An Viễn: Được xác định vị trí tương đương huyện Thanh Chương, Nghệ An về phía hữu ngạn sông Lam
3. Quang An: trước là Tây An, Tùy Văn Đế đổi tên này. Được xác định vị trí tương đương huyện Tương Dương, Nghệ An về phía tây bắc huyện Thanh Chương.
4. Hàm Hoan: được xác định vị trí tương đương các huyện Anh Sơn, Nam Đàn tỉnh Nghệ An (đã thu hẹp so với thời thuộc Hán vì cắt đất để lập các huyện khác).
5. Phố Dương: được xác định tương đương thời thuộc Ngô và thuộc Tấn, là huyện Nghi Xuân tỉnh Hà Tĩnh và Nghi Lộc tỉnh Nghệ An.
6. Việt Thường: được xác định là tương đương thời thuộc Ngô và thuộc Tấn, tức là huyện Đức Thọ, tỉnh Hà Tĩnh
7. Kim Ninh: tức Lợi châu thời thuộc Lương và Tiền Lý, thời Tùy Văn Đế đổi thành Tri châu, đến Tùy Dạng Đế bỏ châu. Được xác định vị trí tương đương huyện Hương Sơn, Hà Tĩnh
8. Giao Cốc: thời thuộc Lương đặt Minh châu, sau bỏ. Được xác định vị trí tương đương huyện Thạch Hà, Hà Tĩnh

Quận Tỷ Ảnh

Năm 605, Tùy Dạng Đế đánh Lâm Ấp, chiếm đất đặt ra Đãng châu, sau đổi thành quận Tỷ Ảnh. Quận này được xác định vị trí ở tỉnh Quảng Bình[6].

Quận Tỷ Ảnh gồm có 4 huyện, 1.815 hộ[3]: Tỷ Ảnh, Chu Ngô, Thọ Linh, Tây Quyển. Vị trí từng huyện chưa khảo cứu được.

Quận Hải Âm

Tùy Dạng Đế đánh Lâm Ấp, chiếm đất đặt ra Nông châu, sau đổi thành quận Hải Âm. Quận này được xác định vị trí ở tỉnh Quảng Trị[6].

Quận Hải Âm gồm có 4 huyện, 1.100 hộ[3]: Tân Dung, Chân Long, Đa Nông, An Lạc. Vị trí từng huyện chưa khảo cứu được.

Quận Tượng Lâm

Tùy Dạng Đế đánh Lâm Ấp, chiếm đất đặt ra Xung châu, sau đổi thành quận Tượng Lâm. Quận này được xác định vị trí ở Thừa Thiên, giới hạn ở phía bắc đèo Hải Vân[6].

Quận Tượng Lâm gồm có 4 huyện, 1.220 hộ[3]: Tượng Phố, Kim Sơn, Giao Giang, Nam Cực. Vị trí từng huyện chưa khảo cứu được.

Bộ máy cai trị

Cũng như các triều đại cai trị Việt Nam trong thời Bắc thuộc lần 2, nhà Tùy duy trì cơ cấu quan liêu cai trị gồm Thứ sử đứng đầu Giao châu, tại các quận có Thái thú và Đô úy, dưới các huyện có các Huyện lệnh.